Math'φsics

Menu
  • Acceuil
  • Maths
  • Physique
    • Maths
    • Physique
  • Capacité d'un canal

    Formulaire de report


    Capacité \(C\) d'un canal
    Quantité correspondant au maximum de l'Information mutuelle entre son entrée et sa sortie. $$C=\max_{p_A(a)}I(A;B)=\max_{p_A(a)}\Big(H(B)-H(B|A)\Big)$$
    • permet de quantifier le lien maximal possible entre l'entrée et la sortie du canal
      (le canal n'est pas capable de créer plus de lien entre \(A\) et \(B\))
    • \(0\) \(\leqslant C\leqslant\) \(\log_2(\min(\lvert\mathcal A\rvert,\lvert{\mathcal B}\rvert))\)
    • \(I(A;B)\) est une fonction concave de \(p_A(a)\) à \(p_{B|A}(b|a)\) fixé


    Capacité d'un canal multi-usages :
    • on considère un Canal sans mémoire caractérisé par \(\mathcal A\), \(p_{B|A}(b|a)\) et \({\mathcal B}\)
    • ce canal est de capacité \(C\)

    $$\Huge\iff$$
    • la capacité du canal sans mémoire caractérisée par \(\mathcal A^n\), \(p_{\underline B|\underline A}(\underline b|\underline a)\) et \({\mathcal B}^n\) correspondant à \(n\) usages successifs du canal est \(nC\)



    Questions de cours

    Montrer que $$0\leqslant C\leqslant\log_2(\min(\lvert\mathcal A\rvert,\lvert{\mathcal B}\rvert))$$

    Cela découle directement des propriétés de \(I\).


    Démontrer :

    On utilise la formule avec l'information mutuelle et le fait que le canal est sans mémoire.

    On montre en revenant aux définitions que \(H(\underline B|\underline A)=\sum_i H(B_i|A_i)\).

    On a le même genre d'inégalité avec \(H(\underline B)\).

    L'information caractéristique du deuxième canal est donc majoré par la somme des informations caractéristiques, ce qui nous donne la majoration.



    Exercices


    Utiliser la formule pour calculer l'Information mutuelle.

    On a une majoration, qui vient des formules d'entropie.

    L'égalité est atteinte pour une loi de probabilité, donc on a bien l'égalité (car, une fois qu'on a l'inégalité, le cas minimal est le cas d'égalité).


    'information

  • Rétroliens :
    • Deuxième théorème de Shannon